Miyu Oba
2022-10-17Trustworthy AIチーム
はじめに
奈良先端科学技術大学院大学修士1年の大羽未悠です。2022年夏に6週間の就業型インターンシップに参加しました。Trustworthy AIチーム にて、言語モデルにおける公平性の評価技術の開発を行いました。本記事では、取り組んだ作業内容について報告させていただきます。
Trustworthy AI チームとは
Trustworthy AI チームとは、2021年6月に発足した AI の信頼性に関する研究開発に取り組むチームです。 AI 特有のリスクの探索評価技術や、 AI の信頼性を担保する技術の研究開発を行なっています。主に大規模言語モデルや画像分類器を対象に、「ひとにやさしい AI 」の実現を目指しています。
私は大学で自然言語処理の研究に従事していることもあり、今回のインターンシップでは日本語の大規模言語モデルに焦点を当てました。
背景
言語モデルとは、単語列に対する尤もらしさを計算するモデルです。任意の入力単語列に対して尤もらしい単語列を出力できることから、チャットボットなど様々なタスクに応用することができます。しかし、言語モデルは人間が作成したコーパスを使用して学習
